Giống chó Great Dane được cho là xuất hiện ở thời Hy Lạp cổ đại từ 3000 năm trước Công Nguyên, loài này cũng được tìm thấy ở Ai Cập, La Mã và trong các đền thờ Babylon. Tổ tiên của giống chó Great Dane có thể là giống chó ngao Anh Old English và giống Greyhound cũng góp gen tạo nên loài Great Dane, ngoài ra còn được lai tạo với loài chó săn của Ireland.

Chúng trở thành những con chó to lớn và mạnh mẽ thuộc nhóm chó Mastiff. Được mệnh danh là "những gã khổng lồ", chúng đủ sức mạnh để chiến đấu với các loài gấu, lợn rừng và một số loài động vật to lớn khác, chúng cũng được sử dụng để bảo vệ, kéo xe và truy tìm dấu vết.

Vào cuối những năm 1600, nhiều quý tộc Đức đã bắt đầu nuôi dưỡng giống chó này trong nhà để bảo vệ và canh gác nhà cửa. Trong suốt cuối thập niên 1800, các nhà lai giàu có của Đức tiếp tục hoàn thiện giống chó Great Dane để hình thành nên những phẩm chất tốt hơn cho nó trở thành một vật nuôi phổ biến trong gia đình và họ đã thành công.

Câu lạc bộ chó giống Great Dane được thành lập ở Mỹ vào năm 1889 và đến ngày nay, giống chó Great Dane đã được xác nhận vào Sách Kỷ lục Guinness là loài chó cao nhất thế giới.